跳到主要内容

Java JVM学习-垃圾回收器

垃圾回收器的分类方式

  • 垃圾收集器没有在规范中进行过多的规定,可以由不同的厂商、不同版本的 JVM 来实现。
  • 由于 JDK的版本处于高速迭代过程中,因此 Java 发展至今已经衍生了众多的 GC 版本。
  • 从不同角度分析垃圾收集器,可以将 GC 分为不同的类型。

按线程数分分类

按线程数分,可以分为串行垃圾回收器和并行垃圾回收器

串行回收指的是在同一时间段内只允许有一个 CPU用于执行垃圾回收操作,此时工作线程被暂停,直至垃圾收集工作结束。

  • 在诸如单 CPU处理器或者较小的应用内存等硬件平台不是特别优越的场合,串行回收器的性能表现可以超过并行回收器和并发回收器。所以,串行回收默认被应用在客户端的 Client模式下的 JVM中
  • 在并发能力比较强的 CPU上,并行回收器产生的停顿时间要短于串行回收器。

和串行回收相反,并行收集可以运用多个CPU同时执行垃圾回收,因此提升 了应用的吞吐量,不过并行回收仍然与串行回收一样,采用独占式,使用了 “Stop-the-world” 机制。

按照工作模式分类

按照工作模式分,可以分为并发式垃圾回收器和独占式垃圾回收器

并发式垃圾回收器与应用程序线程交替工作,以尽可能减少应用程序的停顿时间。 独占式垃圾回收器(Stop the world)一旦运行,就停止应用程序中的所有用户线程,直到垃圾回收过程完全结束。

按碎片处理方式分类

按碎片处理方式分,可分为压缩式垃圾回收器和非压缩式垃圾回收器

压缩式垃圾回收器会在回收完成后,对存活对象进行压缩整理,消除回收后的碎片。再分配对象空间使用:指针碰撞

非压缩式的垃圾回收器不进行这步操作。再分配对象空间使用:空闲列表

按工作的内存区间分类

按工作的内存区间分,又可分为年轻代垃圾回收器和老年代垃圾回收器

评估垃圾回收器的性能指标

吞吐量

吞吐量就是运行用户代码的时间占总运行时间的比例

总运行时间 = 运行用户代码时间 + 内存回收的时间

吞吐量 = 运行用户代码时间 / 总运行时间

比如:虚拟机总共运行了 100分钟,其中垃圾收集花掉 1分钟,那吞吐量就是 99%

这种情况下,应用程序能容忍较高的暂停时间,因此,高吞吐量的应用程序有更长的时间基准,快速响应是不必考虑的。(就是希望一段时间内,吞吐量越大越好,所以一次性的暂停时间可能会长一些)

吞吐量优先,意味着在单位时间内,STW的时间最短:(看上图)

0.2 + 0.2 = 0.4

暂停时间

“暂停时间” 是指执行垃圾收集时,程序的工作线程被暂停的时间

例如,GC期间 100 毫秒的暂停时间意味着在这 100 毫秒期间内没有应用程序线程是活动的。

暂停时间优先,意味着尽可能让单次 STW的时间最短:(看上图)

0.1 + 0.1 + 0.1 + 0.1 + 0.1 = 0.5

内存占用

Java 堆区所占的内存大小

吞吐量和暂停时间的权衡

这三者(吞吐量、暂停时间、内存占用)共同构成一个 “不可能三角”。三者总体的表现会随着技术进步而越来越好。一款优秀的收集器通常 最多同时满足其中的两项。

这三项里,暂停时间的重要性日益凸显。因为随着硬件发展,内存占用多些越来越能容忍,硬件性能的提升也有助于降低收集器运行时对应用程序的影响,即提高了吞吐量。而内存的扩大,对延迟反而带来负面效果。

简单来说,主要抓住两点:

  • 吞吐量
  • 暂停时间

1、高吞吐量较好是因为这会让应用程序的最终用户感觉只有应用程序线程在做 “生产性” 工作。直觉上,吞吐量越高程序运行越快。

2、低暂停时间(低延迟)较好是因为从最终用户的角度来看不管是 GC 还是其他原因导致一个应用被挂起始终是不好的。这取决于应用程序的类型,有时候甚至短暂的 200 毫秒暂停都可能打断终端用户体验。因此,具有低的较大暂停时间是非常重要的,特别是对于一个交互式应用程序。

不幸的是 “高吞吐量” 和 “低暂停时间” 是一对相互竞争的目标(矛盾)。

  • 因为如果选择以吞吐量优先,那么必然需要降低内存回收的执行频率,但是这样会导致 GC 需要更长的暂停时间来执行内存回收。

  • 相反的,如果选择以低延迟优先为原则,那么为了降低每次执行内存回收时的暂停时间,也只能频繁地执行内存回收,但这又引起了年轻代内存的缩诚和导致程序吞吐量的下降。

在设计(或使用) GC 算法时,我们必须确定我们的目标: 一个 GC 算法只可能针对两个目标之一(即只专注于较大吞吐量或最小暂停时间),或尝试找到一个二者的折衷。

现在标准:在最大吞吐量优先的情况下,降低停顿时间。

不同的垃圾回收器概述

垃圾收集机制是 Java的招牌能力,极大地提高了开发效率。这当然也是面试的热点。那么,Java常见的垃圾收集器有哪些?

垃圾收集器发展史

有了虚拟机,就一定需要收集垃圾的机制,这就是 Garbage Collection,对应的产品称为 Garbage Collector

  • 1999 年随 JDK1.3.1 一起来的是串行方式的 Serial GC,它是第一款 GC。后面的 ParNew垃圾收集器是 Serial收集器的多线程版本
  • 2002年2月26日,Parallel GC 和 Concurrent Mark Sweep GC跟随 JDK1.4.2 一起发布
  • Parallel GC 在 JDK6 之后成为 HotSpot默认 GC。
  • 2012年,在 JDK1.7u4 版本中,G1可用。
  • 2017年,JDK9 中 G1变成默认的垃圾收集器,以替代 CMS。
  • 2018年3月,JDK10 中 G1垃圾回收器的并行完整垃圾回收,实现并行性来改善最坏情况下的延迟。
  • ------------分水岭------------
  • 2018年9月,JDK11 发布,引入 Epsilon垃圾回收器,又被称为 “No-Op (无操作)” 回收器。同时引入 ZGC:可伸缩的低延迟垃圾回收器(Experimental)。
  • 2019年3月,JDK12 发布,增强 G1,自动返回未用堆内存给操作系统,同时引入 Shenandoah GC:低停顿时间的 GC (Experimental)。
  • 2019年9月,JDK13 发布,增强 ZGC,自动返回未用堆内存给操作系统。
  • 2020年3月,JDK14 发布,删除 CMS垃圾回收器,扩展 ZGC在 macOS 和 Windows 上的应用

7 款经典的垃圾收集器

串行回收器:Serial、Serial Old 并行回收器:ParNew、Parallel Scavenge、Parallel Old 并发回收器:CMS、G1

注意:这里的 G1 是分区算法

7款经典的垃圾收集器与垃圾分代之间的关系

  • 新生代收集器: Serial、 ParNeW、Parallel Scavenge;
  • 老年代收集器: Serial Old、Parallel Old、 CMS;
  • 整堆收集器: G1;

查看默认的垃圾收集器

-XX:+PrintCommandLineFlags:查看命令行相关参数(包含使用的垃圾收集器)

使用命令行指令:

jinfo -flag # 相关垃圾回收器参数进程 ID

编写测试代码:

/**
* -XX:+PrintCommandLineFlags
*
* -XX:+UseSerialGC 表明新生代使用 Serial GC ,同时老年代使用 Serial Old GC
*
* -XX:+UseParNewGC 标明新生代使用ParNew GC
*
* -XX:+UseParallelGC 表明新生代使用 Parallel GC
* -XX:+UseParallelOldGC 表明老年代使用 Parallel Old GC
* 说明:二者可以相互激活
*
* -XX:+UseConcMarkSweepGC 表明老年代使用 CMS GC。同时,年轻代会触发对 ParNew 的使用
*/
public class GCUseTest {
public static void main(String[] args) {
ArrayList<byte[]> list = new ArrayList<>();

while(true){
byte[] arr = new byte[100];
list.add(arr);
try {
Thread.sleep(10);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
}

输出为:

-XX:InitialHeapSize=266833472 
-XX:MaxHeapSize=4269335552
-XX:+PrintCommandLineFlags
-XX:+UseCompressedClassPointers
-XX:+UseCompressedOops
-XX:-UseLargePagesIndividualAllocation
-XX:+UseParallelGC

Serial回收器:串行回收

Serial 收集器是最基本、历史最悠久的垃圾收集器了。JDK1.3 之前回收新生代唯一的选择。

Serial 收集器作为 HotSpot 中 Client 模式下的默认新生代垃圾收集器。

Serial 收集器采用复制算法、串行回收和 "Stop-the-World" 机制的方式执行内存回收。

除了年轻代之外,Serial 收集器还提供用于执行老年代垃圾收集的 Serial Old 收集器。 Serial Old收集器同样也采用了串行回收 和 "Stop the World" 机制,只不过内存回收算法使用的是 标记-压缩算法。

Serial Old 是运行在 Client 模式下默认的老年代的垃圾回收器

Serial Old 在 Server 模式下主要有两个用途:

  • 与新生代的 ParallelScavenge 配合使用;
  • 作为老年代 CMS 收集器的后备垃圾收集方案

这个收集器是一个单线程的收集器,但它的 “单线程” 的意义并不仅仅说明它只会使用一个 CPU或一条收集线程去完成垃圾收集工作,更重要的是在它进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束(Stop The World )。

串行回收的优势

简单而高效(与其他收集器的单线程比),对于限定单个 CPU的环境来说,Serial 收集器由于没有线程交互的开销,专心做垃圾收集自然可以获得最高的单线程收集效率。

  • 运行在 Client模式下的虛拟机是个不错的选择。

在用户的桌面应用场景中,可用内存一般不大(几十MB至一两百MB),可以在较短时间内完成垃圾收集(几十ms至一百多ms),只要不频繁发生,使用串行回收器是可以接受的。

在 HotSpot 虛拟机中,使用 -XX:+UseSerialGC 参数可以指定年轻代和老年代都使用串行收集器。

  • 等价于新生代用 Serial GC,且老年代用 Serial Old GC

控制台输出:

-XX:InitialHeapSize=268435456 
-XX:MaxHeapSize=4294967296
-XX:+PrintCommandLineFlags
-XX:+UseCompressedClassPointers
-XX:+UseCompressedOops
-XX:+UseSerialGC

串行回收的总结

这种垃圾收集器限定单核cpu才可以用,但是现在都不是单核的了。 对于交互较强的应用而言,这种垃圾收集器是不能接受的。 一般在 Javaweb应用程序中是不会采用串行垃圾收集器的。

ParNew 回收器:并行回收

如果说 Serial GC 是年轻代中的单线程垃圾收集器,那么 ParNew 收集器则是 Serial收集器的多线程版本。

  • Par是 Parallel 的缩写
  • New:只能处理的是新生代

ParNew 收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之间几乎没有任何区别。ParNew 收集器在年轻代中同样也是采用复制算法、"Stop-the-World" 机制。

ParNew 是很多 JVM运行在 Server模式下新生代的默认垃圾收集器。

  • 对于新生代,回收次数频繁,使用并行方式高效。
  • 对于老年代,回收次数少,使用串行方式节省资源。(CPU并行需要切换线程,串行可以省去切换线程的资源)

面试题:由于 ParNew收集器是基于并行回收,那么是否可以断定 ParNew 收集器的回收效率在任何场景下都会比 Serial 收集器更高效?

  • ParNew 收集器运行在多CPU的环境下,由于可以充分利用多CPU、 多核心等物理硬件资源优势,可以更快速地完成垃圾收集,提升程序的吞吐量。
  • 但是在单个 CPU的环境下,ParNew收集器不比Serial收集器更高效。虽然 Serial收集器是基于串行回收,但是由于 CPU不需要频繁地做任务切换,因此可以有效避免多线程交互过程中产生的一些额外开销。

因为除 Serial外,目前只有 ParNew GC 能与 CMS 收集器配合工作

在程序中,开发人员可以通过选项 -XX:+UseParNewGC 手动指定使用 ParNew 收集器执行内存回收任务。它表示年轻代使用并行收集器,不影响老年代。

-XX:ParallelGCThreads 限制线程数量,默认开启和 CPU数据相同的线程数。

Parallel 回收器:吞吐量优先

HotSpot 的年轻代中除了拥有 ParNew 收集器是基于并行回收的以外,Parallel Scavenge 收集器同样也采用了复制算法、并行回收和 Stop the World 机制。

那么 Parallel 收集器的出现是否多此一举?

  • 和 ParNew 收集器不同,Parallel Scavenge 收集器的目标则是 达到一个可控制的吞吐量(Throughput),它也被称为吞吐量优先的垃圾收集器。
  • 自适应调节策略也是 Parallel Scavenge 与 ParNew 一个重要区别。

高吞吐量则可以高效率地利用 CPU 时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务。因此,常见在服务器环境中使用。例如,那些执行批量处理、订单处理、工资支付、科学计算的应用程序。

Parallel 收集器在 JDK1.6 时提供了用于执行老年代垃圾收集的 Parallel Old 收集器,用来代替老年代的 Serial Old 收集器。

Parallel Old 收集器采用了标记一压缩算法,但同样也是基于并行回收和 Stop-the-World 机制。

在程序吞吐量优先的应用场景中,Parallel 收集器和 Parallel Old 收集器的组合,在 Server 模式下的内存回收性能很不错。

在 Java8 中,默认是此垃圾收集器

参数配置

-XX:+UseParallelGC 手动指定 年轻代使用Parallel并行收集器执行内存回收任务。

-XX:+UseParallel0ldGC 手动指定老年代都是使用并行回收收

  • 分别适用于新生代和老年代,默认 jdk8是开启的。
  • 上面两个参数,默认开启一个,另一个也会被开启。 (互相激活)

-XX:ParallelGCThreads 设置年轻代并行收集器的线程数。一般地,最好与 CPU数量相等,以避免过多的线程数影响垃圾收集性能。

  • 在默认情况下,当CPU数量小于8个, ParallelGCThreads 的值等于CPU数量。
  • 当CPU数量大于8个, ParallelGCThreads的值等于 3+ (5 * CPU_Count) / 8

-XX:MaxGCPau3eMillis 设置垃圾收集器最大停顿时间(即 STW 的时间),单位是毫秒。

  • 为了尽可能地把停顿时间控制在 MaxGCPauseMills 以内,收集器在工作时会调整 Java堆大小或者其他一些参数。
  • 对于用户来讲,停顿时间越短体验越好。但是在服务器端,我们注重高并发,整体的吞吐量。所以服务器端适合 Parallel,进行控制。
  • 该参数使用需谨慎

-XX:GCTimeRatio 垃圾收集时间占总时间的比例 = 1 / (N + 1) 用于衡量吞吐量的大小。

  • 取值范围(0, 100)。默认值99,也就是垃圾回收时间不超过 1号。
  • 与前一个 -XX:MaxGCPauseMillis 参数有一定矛盾性。暂停时间越长,Radio 参数就容易超过设定的比例。

-XX:+UseAdaptiveSizePolicy 设置 Parallel Scavenge 收集器具有自适应调节策略

  • 在这种模式下,年轻代的大小、Eden 和 Survivor 的比例、晋升老年代的对象年龄等参数会被自动调整,已达到在堆大小、吞吐量和停顿时间之间的平衡点。
  • 在手动调优比较困难的场合,可以直接使用这种自适应的方式,仅指定虚拟机的最大堆、目标的吞吐量(GCTimeRatio)和停顿时间(MaxGCPauseMills),让虚拟机自己完成调优工作。

CMS 回收器:低延迟

JDK1.5 时期, HotSpot 推出了一款在强交互应用中几乎可认为有划 时代意义的垃圾收集器: CMS (Concurrent-Mark-Sweep)收集器,这款收集器是 HotSpot 虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集线程与用户线程同时工作。

CMS 收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时 间越短(低延迟)就越适合与用户交互的程序,良好的响应速度能提升用户体验。

  • 目前很大一部分的 Java 应用集中在互联网站或者 B/S系统的服务端上,这类应用尤其重视服务的响应速度,希望系统停顿时间最短,以给用户带来较好的体验,CMS收集器就非常符合这类应用的需求。

CMS 的垃圾 收集算法采用标记一清除算法,并且也 会 "stop-the-world"

不幸的是,CMS 作为老年代的收集器,却无法与 JDK 1.4.0 中已经存在的新生代收集器 Parallel Scavenge 配合工作,所以在 JDK 1.5 中使用 CMS 来收集老年代的时候,新生代只能选择 ParNew 或者 Serial 收集器中的一个。

在 G1 出现之前,CMS使用还是非常广泛的。一直到今天,仍然有很多系统使用 CMS GC。

CMS 的四个阶段

CMS 整个过程比之前的收集器要复杂,整个过程分为4个主要阶段,即初始标记阶段、并发标记阶段、重新标记阶段和并发清除阶段。

初始标记(Initial-Mark) 在这个阶段中,程序中所有的工作线程都将会因为 Stop-the-World 机制而出现短暂的暂停,这个阶段的主要任务 仅仅只是标记出 GCRoots 能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小,所以这里的速度非常快。

并发标记(Concurrent-Mark)从 GC Roots 的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行。

重新标记(Remark)由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短。

并发清除( Concurrent-Sweep)此阶段清理删除掉标记阶段判断的已经死亡的对象,释放内存空间。由于不需要移动存活对象,所以这个阶段也是可以与用户线程同时并发的

尽管 CMS收集器采用的是并发回收(非独占式),但是在其初始化标记和再次标记这两个阶段中仍然需要执行 “Stop-the-World” 机制暂停程序中的工作线程,不过暂停时间并不会太长,因此可以说明目前所有的垃圾收集器都做不到完全不需要 “Stop-the-World”,只是尽可能地缩短暂停时间。

由于最耗费时间的并发标记与并发清除阶段都不需要暂停工作,所以整体的回收是低停顿的。

另外,由于在垃圾收集阶段用户线程没有中断,所以在 CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在 CMS工作过程中依然有足够的空间支持应用程序运行。

要是 CMS运行期间预留的内存无法满足程序需要,就会出现一次 “Concurrent Mode Failure” 失败,这时虚拟机将启动后备预案:临时启用 Serial Old 收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了。

CMS 收集器的垃圾收集算法采用的是 标记-清除算法,这意味着每次执行完内存回收后,由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块,不可避免地将会产生一些内存碎片。 那么 CMS在为新对象分配内存空间时,将无法使用指针碰撞(Bump the Pointer) 技术,而只能够选择空闲列表(Free List) 执行内存分配。

有人会觉得既然 Mark Sweep 会造成内存碎片,那么为什么不把算法换成 Mark Compact 呢?

答案其实很简答,因为当并发清除的时候,用 Compact 整理内存的话,原来的用户线程使用的内存还怎么用呢?要保证用户线程能继续执行,前提的它运行的资源不受影响嘛。Mark Compact 更适合 “Stop the World” 这种场景下使用

CMS 的优点

1)会产生内存碎片,导致并发清除后,用户线程可用的空间不足。在无法分配大对象的情况下,不得不提前触发Full GC。

2) CMS收集器对 CPU资源非常敏感。在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低。

3) CMS收集器无法处理浮动垃圾。可能出现 “Concurrent Mode Failure” 失败而导致另一次 Full GC 的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的,那么在并发标记阶段如果产生新的垃圾对象,CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收,从而只能在下一次执行 GC时释放这些之前未被回收的内存空间。

参数设置

-XX:+UseConcMarkSweepGC 手动指定使用 CMS收集器执行内存回收任务。

  • 开启该参数后会自动将 -XX:+UseParNewGC 打开。
  • 即: ParNew (Young 区用) +CMS (Old 区用) +Serial Old 的组合。

-XX:CMSInitiatingOccupancyFraction 设置堆内存使用率的阈值,一旦达到该阈值,便开始进行回收。

  • JDK5 及以前版本的默认值为 68%,即当老年代的空间使用率达到 68%时,会执行一次 CMS 回收。(JDK6 及以上版本默认值为 92%)
  • 如果内存增长缓慢,则可以设置一个稍大的值,大的阈值可以有效降低 CMS的触发频率,减少老年代回收的次数可以较为明显地改善应用程序性能。反之,如果应用程序内存使用率增长很快,则应该降低这个阈值,以避免频繁触发老年代串行收集器。因此通过该选项便可以有效降低 Full GC 的执行次数。

-XX:+UseCMSCompactAtFullCollection 用于指定在执行完 Full GC 后对内存空间进行压缩整理,以此避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行,所带来的问题就是停顿时间变得更长了。

-XX:CMSFullGCsBeforeCompaction 设置在执行多少次 Full GC 后对内存空间进行压缩整理。

-XX:ParallelCMSThreads 设置 CMS的线程数量。

  • CMS 默认启动的线程数是 ( ParallelGCThreads + 3 ) / 4,ParallelGCThreads 是年轻代并行收集器的线程数。当 CPU资源比较紧张时,受到 CMS收集器线程的影响,应用程序的性能在垃圾回收阶段可能会非常糟糕。

JDK 后续版本中CMS的变化

JDK9 新特性:CMS被标记为 Deprecate 了

  • 如果对 JDK 9 及以上版本的 HotSpot 虚拟机使用参数 -XX:+UseConcMarkSweepGC 来开启 CMS收集器的话,用户会收到一个警告信息,提示 CMS未来将会被废弃。

JDK14 新特性:删除 CMS 垃圾回收器

  • 移除了CMS垃圾收集器,如果在 JDK14中使用 -XX:+UseConcMarkSweepGC 的话,JVM不会报错,只是给出一个 warning信息,但是不会 exit。JVM会自动回退以默认 GC方式启动 JVM

G1回收器:区域化分代式

既然我们已经有了前面几个强大的 GC,为什么还要发布 Garbage First GC? (G1)

原因就在于应用程序所应对的业务越来越庞大、复杂,用户越来越多,没有 GC就不能保证应用程序正常进行,而经常造成 STW的 GC又跟不上实际的需求,所以才会不断地尝试对 GC进行优化。

G1(Garbage-First)垃圾回收器是在 Java7 update4 之后引入的一个新的垃圾回收器,是当今收集器技术发展的最前沿成果之一。

与此同时,为了适应现在不断扩大的内存和不断增加的处理器数量,进一步降低暂停时间(pause time),同时兼顾良好的吞吐量。

官方给 G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当起 “全功能收集器” 的重任与期望

Garbage First 是什么?

G1 是一个并行回收器,它把堆内存分割为很多不相关(物理上不连续的)的区域(Region)。使用不同的 Region 来表示 Eden、幸存者0区,幸存者1区,老年代等。

G1 GC 有计划地避免在整个Java 堆中进行全区域的垃圾收集。G1跟踪各个 Region 里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的 Region。

由于这种方式的侧重点在于回收垃圾最大量的区间(Region),所以给 G1一个名字:垃圾优先(Garbage First)。

G1(Garbage-First) 是一款面向服务端应用的垃圾收集器,主要针对配备多核 CPU及大容量内存的机器,以极高概率满足 GC停顿时间的同时,还兼具高吞吐量的性能特征。

JDK1.7 版本正式启用,移除了 Experimental的标识,是 JDK 9 以后的默认垃圾回收器,取代了 CMS回收器以及 Parallel + Parallel Old 组合。被 Oracle 官方称为 “全功能的垃圾收集器”。

与此同时,CMS 已经在 JDK 9 中被标记为废弃(deprecated) 。在 Jdk8 中还不是默认的垃圾回收器,需要使用 -XX:+UseG1GC 来启用。

G1的优势

与其他 GC收集器相比,G1使用了全新的分区算法,其特点如下所示:

并行与并发

  • 并行性:G1 在回收期间,可以有多个 GC 线程同时工作,有效利用多核计算能力。此时用户线程STW
  • 并发性:G1 拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此一般来说,不会在整个回收阶段发生完全阻塞应用程序的情况

分代收集

从分代上看,G1 依然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有 Eden区和 Survivor区。但从堆的结构上看,它不要求整个 Eden区、年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量。

将堆空间分为若干个区域(Region) ,这些区域中包含了逻辑上的年轻代和老年代。且它和之前的各类回收器不同,它同时兼顾年轻代和老年代,对比其他回收器,它或者工作在年轻代,或者工作在老年代;

空间整合

CMS:“标记-清除” 算法、内存碎片、若干次 GC 后进行一次碎片整理

G1 将内存划分为一个个的 Region。 内存的回收是以 Region 作为基本单位的 Region 之间是复制算法,但整体上实际可看作是 标记-压缩(Mark-Compact)算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找到连续内存空间而提前触发下一次 GC。尤其是当 Java堆非常大的时候,G1的优势更加明显。

可预测的停顿时间模型(即:软实时soft real-time)

这是 G1相对于 CMS的另一大优势,G1除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为 M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒。

由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制。

G1 跟踪各个 Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的 Region。保证了 G1 收集器在有限的时间内可以获取尽可能高的收集效率。

相比于 CMS GC,G1未必能做到 CMS在最好情况下的延时停顿,但是最差情况要好很多。

G1的缺点

相较于 CMS,G1还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用(Footprint) 还是程序运行时的额外执行负载(overload) 都要比 CMS要高。

从经验上来说,在小内存应用上 CMS的表现大概率会优于 G1,而 G1在大内存应用,上则发挥其优势。平衡点在 6-8GB 之间。

参数设置

-XX:+UseG1GC 手动指定使用 G1收集器执行内存回收任务。

-XX:G1HeapRegionSize 设置每个 Region的大小,值是 2的幂,范围是 1MB 到 32MB之间,目标是根据最小的 Java堆大小划分出约 2048个区域。默认是堆内存的 1/2000。

-XX:MaxGCPauseMillis 设置期望达到的最大GC停顿时间指标(JVM会尽力实现,但不保证达到),默认值是 200ms

-XX:ParallelGCThread 设置 STW 工作线程数的值,最多设置为 8

-XX:ConcGCThreads 设置并发标记的线程数,将 n 设置为并行垃圾回收线程数(ParallelGCThreads)的 1/4 左右。

-XX:InitiatingHeapOccupancyPercent 设置触发并发 GC周期的 Java堆占用率阈值,超过此值就触发GC,默认值是45。

G1 回收器的常见操作步骤

G1 的设计原则就是简化 JVM性能调优,开发人员只需要简单的三步即可完成调优:

  • 第一步:开启G1垃圾收集器
  • 第二步:设置堆的最大内存
  • 第三步:设置最大的停顿时间

G1 中提供了三种垃圾回收模式:YoungGC、Mixed GC 和 Full GC,在不同的条件下被触发。

适用场景

面向服务端应用,针对具有大内存、多处理器的机器。(在普通大小的堆里表现并不惊喜)

最主要的应用是需要低 GC延迟,并具有大堆的应用程序提供解决方案;

如:在堆大小约 6GB或更大时,可预测的暂停时间可以低于 0.5秒;(G1 通过每次只清理一部分而不是全部的 Region的增量式清理来保证每次 GC停顿时间不会过长)。

用来替换掉 JDK1.5 中的 CMS收集器;

在下面的情况时,使用 G1可能比 CMS好:

  • 超过 50%的 Java堆被活动数据占用
  • 对象分配频率或年代提升频率变化很大
  • GC停顿时间过长(长于 0.5 至 1秒)

HotSpot垃圾收集器里,除了 G1以外,其他的垃圾收集器使用内置的 JVM线程执行 GC的多线程操作,而 G1 GC可以采用应用线程承担后台运行的 GC工作,即当 JVM的 GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程。

分区 Region 化整为零

使用 G1收集器时,它将整个 Java堆划分成约 2048个大小相同的独立 Region块,每个 Region块大小根据堆空间的实际大小而定,整体被控制在 1MB到 32MB之间,且为 2的 N次幂,即 1MB, 2MB, 4MB, 8MB, 16MB, 32MB。可以通过 -XX:G1HeapRegionSize 设定,所有的 Region大小相同,且在 JVM生命周期内不会被改变。

虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,它们都是一部分 Region(不需要连续)的集合。通过 Region 的动态分配方式实现逻辑上的连续。

一个 Region 有可能属于 Eden, Survivor 或者 Old/Tenured 内存区域。但是一个 Region 只可能属于一个角色。

图中的:

  • E 表示该 Region 属于 Eden内存区域
  • S 表示属于 Survivor内存区域
  • O 表示属于 Old内存区域
  • 图中空白的表示未使用的内存空间。

G1 垃圾收集器还增加了一种新的内存区域,叫做 Humongous 内存区域,如图中的 H块。主要 用于存储大对象,如果超过 1.5个region,就放到 H。

设置 H的原因:

对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个 Humongous区,它用来专门存放大对象。如果一个 H区装不下一个大对象,那么 G1会寻找连续的 H区来存储。为了能找到连续的 H区,有时候不得不启动 Full GC。G1的大多数行为都把 H区作为老年代的一部分来看待。

G1 回收器垃圾回收过程

G1 GC的垃圾回收过程主要包括如下三个环节:

  • 年轻代GC (Young GC)
  • 老年代并发标记过程(Concurrent Marking)
  • 混合回收(Mixed GC)

如果需要,单线程、独占式、高强度的 Full GC还是继续存在的。它针对 GC的评估失败提供了一种失败保护机制,即强力回收。

顺时针,按照 young gc > young gc + concurrent mark > Mixed GC 的顺序进行垃圾回收。

应用程序分配内存,当年轻代的 Eden区用尽时开始年轻代回收过程; G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1 GC 暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到 Survivor区间或者老年区间,也有可能是两个区间都会涉及。

当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程。

标记完成马上开始混合回收过程。对于一个混合回收期,G1 GC从老年区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。和年轻代不同,老年代的 G1回收器和其他 GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的 Region就可以了。同时,这个老年代 Region是和年轻代一起被回收的。

举个例子:一个web服务器,Java进程最大堆内存为4G,每分钟响应1500个请求,每45秒钟会新分配大约2G的内存。G1会每45秒钟进行一次年轻代回收,每 31 个小时整个堆的使用率会达到45%,会开始老年代并发标记过程,标记完成后开始四到五次的混合回收。

记忆集与写屏障

G1的分代扫描虽然厉害,但是还有如下问题需要处理:

主要就是一个对象被不同区域引用的问题(分代引用问题)

一个 Region 不可能是孤立的,一个 Region 中的对象可能被其他任意 Region 中对象引用,判断对象存活时,是否需要扫描整个Java堆才能保证准确?在其他的分代收集器,也存在这样的问题(而 G1更突出)

回收新生代也不得不同时扫描老年代?这样的话会降低 MinorGC 的效率

解决方法:

  • 无论 G1还是其他分代收集器,JVM都是使用 RememberedSet 来避免全局扫描
  • 每个 Region 都有一个对应的 Remembered Set
  • 每次 Reference 类型数据写操作时,都会产生一个 Write Barrier 暂时中断操作
  • 然后检查将要写入的引用指向的对象是否和该 Reference类型数据在不同的 Region (其他收集器:检查老年代对象是否引用了新生代对象)如果不同,通过 CardTable 把相关引用信息记录到引用指向对象的所在 Region 对应的 Remembered Set中
  • 当进行垃圾收集时,在 GC根节点的枚举范围加入 Remembered Set 就可以保证不进行全局扫描,也不会有遗漏。

G1 回收过程详解

年轻代 GC

JVM 启动时,G1 先准备好 Eden区,程序在运行过程中不断创建对象到 Eden区,当 Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程。

年轻代垃圾回收只会回收 Eden区和 Survivor区。

YGC时,首先 G1停止应用程序的执行(Stop-The-World),G1创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代 Eden区和 Survivor区所有的内存分段。

然后开始如下回收过程

第一阶段,扫描根

根是指 static 变量指向的对象,正在执行的方法调用链条上的局部变量等。根引用连同 RSet(上面讲的 RememberedSet)记录的外部引用作为扫描存活对象的入口。

第二阶段,更新 RSet

处理 dirty card queue 中的 card,更新 RSet。 此阶段完成后,RSet 可以准确的反映老年代对所在的内存分段中对象的引用。

注意这里的 dirty card queue:对于应用程序的引用赋值语句 object.field = object,JVM会在之前和之后执行特殊的操作以在 dirty card queue 中入队一个保存了对象引用信息的 card。

在年轻代回收的时候,G1 会对 Dirty Card Queue 中所有的 card 进行处理,以更新 RSet,保证 RSet 实时准确的反映引用关系。 那为什么不在引用赋值语句处直接更新 RSet呢?这是为了性能的需要,RSet 的处理需要线程同步,开销会很大,使用队列性能会好很多。

第三阶段,处理 RSet

识别被老年代对象指向的 Eden中的对象,这些被指向的 Eden中的对象被认为是存活的对象。

第四阶段,复制对象

此阶段,对象树被遍历,Eden区内存段中存活的对象会被复制到 Survivor区中空的内存分段,Survivor区内存段中存活的对象如果年龄未达阈值,年龄会加1,达到阀值会被会被复制到 Old区中空的内存分段。

如果 Survivor空间不够,Eden空间的部分数据会直接晋升到老年代空间。

第五阶段,处理引用

处理 Soft,Weak,Phantom,Final,JNI Weak等引用。最终 Eden空间的数据为空,GC停止工作,而目标内存中的对象都是连续存储的,没有碎片,所以复制过程可以达到内存整理的效果,减少碎片。

并发标记过程

初始标记阶段:标记从根节点直接可达的对象。这个阶段是 STW的,并且会触发一次年轻代GC。

根区域扫描(Root Region Scanning):G1 GC扫描 Survivor区直接可达的老年代区域对象,并标记被引用的对象。这一过程必须在 Young GC之前完成。

并发标记(Concurrent Marking):在整个堆中进行并发标记(和应用程序并发执行),此过程可能被 Young GC中断。在并发标记阶段,若发现区域对象中的所有对象都是垃圾,那这个区域会被立即回收。同时,并发标记过程中,会计算每个区域的对象活性(区域中存活对象的比例)。

再次标记(Remark):由于应用程序持续进行,需要修正上一次的标记结果。G1 中采用了比 CMS更快的初始快照算法:snapshot-at-the-beginning (SATB)。

独占清理(cleanup,STW):计算各个区域的存活对象和 GC回收比例,并进行排序,识别可以混合回收的区域,为下阶段做铺垫。

  • 这个阶段并不会实际上去做垃圾的收集

并发清理阶段:识别并清理完全空闲的区域

混合回收

当越来越多的对象晋升到老年代 OldRegion 时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾收集器,即 Mixed GC, 该算法并不是一个 Old GC,除了回收整个 Young Region,还会回收一部分的 OldRegion。

这里需要注意:是一部分老年代, 而不是全部老年代。上面的 “独占清理阶段” 可以选择哪些 OldRegion进行收集,从而可以对垃圾回收的耗时时间进行控制。也要注意的是 Mixed GC并不是 Full GC。

并发标记结束以后,老年代中百分百为垃圾的内存分段被回收了,部分为垃圾的内存分段被计算了出来。默认情况下,这些老年代的内存分段会分 8次(可以通过 -XX:G1MixedGCCountTarget 设置)被回收。

混合回收的回收集(Collection Set) 包括八分之一的老年代内存分段,Eden区内存分段,Survivor区内存分段。混合回收的算法和年轻代回收的算法完全一样,只是回收集多了老年代的内存分段。具体过程请参考上面的年轻代回收过程。

由于老年代中的内存分段默认分 8次回收,G1会优先回收垃圾多的内存分段。垃圾占内存分段比例越高的,越会被先回收。并且有一个阈值会决定内存分段是否被回收,-XX:G1MixedGCLiveThresholdPercent,默认为 65%,意思是垃圾占内存分段比例要达到 65%才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间。

混合回收并不一定要进行8次。有一个阈值 -XX:G1HeapWastePercent,默认值为 10%,意思是允许整个堆内存中有 10%的空间被浪费,意味着如果发现可以回收的垃圾占堆内存的比例低于 10%,则不再进行混合回收。因为GC会花费很多的时间但是回收到的内存却很少。

Full GC

G1 的初衷就是要避免 Full GC的出现。但是如果上述方式不能正常工作,G1会停止应用程序的执行(Stop-The-World),使用单线程的内存回收算法进行垃圾回收,性能会非常差,应用程序停顿时间会很长。

要避免 Full GC的发生,一旦发生需要进行调整。什么时候会发生 Full GC呢?比如堆内存太小,当 G1在复制存活对象的时候没有空的内存分段可用,则会回退到 Full GC, 这种情况可以通过增大内存解决。

导致 G1 Full GC的原因可能有两个:

  1. Evacuation(回收阶段)的时候没有足够的 to-space 来存放晋升的对象;
  2. 并发处理过程完成之前空间耗尽。

优化建议

年轻代大小

  • 避免使用 -Xmn-XX:NewRatio 等相关选项显式设置年轻代大小
  • 固定年轻代的大小会覆盖暂停时间目标

暂停时间目标不要太过严苛

  • G1 GC 的吞吐量目标是 90%的应用程序时间和 10%的垃圾回收时间
  • 评估 G1 GC的吞吐量时,暂停时间目标不要太严苛。目标太过严苛表示你愿意承受更多的垃圾回收开销,而这些会直接影响到吞吐量。

各种垃圾回收器的搭配

先来回顾一下 Serial GC、 Parallel GC、Concurrent Mark Sweep GC 这三个 GC有什么不同

请记住以下口令:

  • 如果想要最小化地使用内存和并行开销,请选 Serial GC
  • 如果想要最大化应用程序的吞吐量,请选 Parallel GC
  • 如果想要最小化 GC的中断或停顿时间,请选 CMS GC

截止JDK 1.8,一共有7款不同的垃圾收集器。每一款不同的垃圾收集器都有不同的特点,在具体使用的时候,需要根据具体的情况选用不同的垃圾收集器。

不同厂商、不同版本的虚拟机实现差别很大。HotSpot 虚拟机在JDK7/8后所有收集器及组合(连线),如下图:

1、两个收集器间有连线,表明它们可以搭配使用:

  • Serial / Serial Old
  • Serial / CMS
  • ParNew / Serial Old
  • ParNew / CMS
  • Parallel Scavenge / Serial Old
  • Parallel Scavenge / Parallel Old
  • G1

2、其中 Serial Old 作为 CMS 出现 "Concurrent Mode Failure" 失败的后备预案。

3、(红色虚线)由于维护和兼容性测试的成本,在 JDK 8 时将 Serial + CMS、 ParNew + Serial Old这两个组合声明为废弃,并在 JDK 9中完全移除了这些组合的支持

4、(绿色虚线)JDK 14中:弃用 Parallel Scavenge 和 Serial0ld GC 组合

5、(青色虚线)JDK 14中:删除 CMS垃圾回收器

为什么要有很多收集器个不够吗? 因为 Java的使用场景很多,移动端,服务器等。所以就需要针对不同的场景,提供不同的垃圾收集器,提高垃圾收集的性能。

虽然我们会对各个收集器进行比较,但并非为了挑选一个最好的收集器出来。没有一种放之四海皆准、任何场景下都适用的完美收集器存在,更加没有万能的收集器。所以我们选择的只是对具体应用最合适的收集器。

GC发展阶段: Serial => Parallel (并行) => CMS (并发) => G1 => ZGC

怎么选择垃圾回收器

Java 垃圾收集器的配置对于 JVM优化来说是一个很重要的选择,选择合适的垃圾收集器可以让 JVM的性能有一个很大的提升。

怎么选择垃圾收集器?

  1. 优先调整堆的大小让JVM自适应完成。
  2. 如果内存小于100M,使用串行收集器
  3. 如果是单核、单机程序,并且没有停顿时间的要求,串行收集器
  4. 如果是多 CPU、需要高吞吐量、允许停顿时间超过 1秒,选择并行或者 JVM自己选择
  5. 如果是多 CPU、追求低停顿时间,需快速响应(比如延迟不能超过 1秒,如互联网应用),使用并发收集器

目前官方推荐G1,性能高。现在互联网的项目,基本都是使用 G1。

GC 日志分析

通过阅读 GC日志,我们可以了解 Java虛拟机内存分配与回收策略。内存分配与垃圾回收的参数列表

-XX:+PrintGC 输出 GC日志。类似: -verbose:gc -XX:+PrintGCDetails 输出 GC的详细日志 -XX:+PrintGCTimeStamps 输出 GC的时间戳(以基准时间的形式) -XX:+PrintGCDateStamps 输出 GC的时间戳(以日期的形式,如 2013-05-04T21:53:59.234+0800 ) -XX:+PrintHeapAtGC 在进行GC的前后打印出堆的信息 -Xloggc:../logs/gc.log 日志文件的输出路径

+PrintGC

打开 GC日志:-verbose:gc 这个只会显示总的 GC堆的变化, 如下:

[GC(Allocation Failure) 80832K一>19298K(227840K),0.0084018 secs]
[GC(Metadata GC Threshold) 109499K一>21465K(228352K),0.0184066 secs]
[Full GC(Metadata GC Threshold) 21 465K一>16716K(201728K),0.0619261 secs ]

参数解析:

GC、Full GC               GC的类型,GC只在新生代上进行,Full GC包括永生代,新生代, 老年代。
Allocation Failure GC发生的原因。
80832K一> 19298K 堆在GC前的大小和GC后的大小。
228840k 现在的堆大小。
0.0084018 secs GC持续的时间。

PrintGCDetails

打开GC日志:

-verbose:gc -XX:+PrintGCDetails

输出信息如下:

[GC(Allocation Failure) [ PSYoungGen: 70640K一> 10116K(141312K) ] 80541K一>20017K(227328K),0.0172573 secs] [Times:user=0.03 sys=0.00, real=0.02 secs ]
[GC(Metadata GC Threshold) [PSYoungGen:98859K一>8154K(142336K) ] 108760K一>21261K(228352K), 0.0151573 secs] [Times: user=0.00 sys=0.01, real=0.02 secs]
[Full GC(Metadata GC Threshold) [PSYoungGen: 8154K一>0K(142336K) ] [ParOldGen: 13107K一>16809K(62464K) ] 21261K一>16809K(204800K), [Metaspace: 20599K一>20599K(1067008K)],0.0639732 secs]
[Times: user=0.14 sys=0.00, real=0.06 secs]

参数解析:

GC,Full FC:               同样是GC的类型
Allocation Failure: GC原因
PSYoungGen: 使用了Parallel Scavenge并行垃圾收集器的新生代GC前后大小的变化
ParOldGen: 使用了Parallel Old并行垃圾收集器的老年代GC前后大小的变化
Metaspace: 元数据区GC前后大小的变化,JDK1.8中引入了 元数据区以替代永久代
xxx secs : 指GC花费的时间
Times:
* user: 指的是垃圾收集器花费的所有CPU时间
* sys: 花费在等待系统调用或系统事件的时间
* real :GC 从开始到结束的时间,包括其他进程占用时间片的实际时间。